FLINT: Fixed-budget Late Interaction
FLINT：固定预算迟交互检索架构
🧭 多向量检索 · 效率优化
University of Illinois Urbana-Champaign · University of California, Berkeley
通过对称注意力池化，将查询和文档压缩为固定数量向量，大幅减少多向量检索的存储和计算开销
📌 工作参考价值（4 点）
- 商品/内容召回：多向量模型（如 ColBERT）在电商搜索中效果优于单向量，但索引存储巨大。可借鉴 FLINT 的固定预算池化，将商品标题、描述压缩为固定 \(k\) 个向量，索引大小相对 ColBERTv2 降低 5.3-9.3 倍，适合大规模商品库部署。
- 查询侧对称池化：不仅池化文档，也池化 query，减少在线 query 编码向量数和匹配计算量。在长查询、对话式搜索或多轮交互生成的查询场景下，端到端检索比 ConstBERT 快 1.5-2.8 倍，适合 Agent 触发的复杂搜索请求。
- 架构无关的池化设计：FLINT 在 BERT 和 ModernBERT 上都有效，说明池化策略可以独立于编码器骨干。实际落地时可选用更轻量的 ModernBERT 等骨干，进一步降低延迟。
- 若现有系统已使用 ColBERT 风格检索，可将 FLINT 作为召回或粗排组件，在不显著损失效果的前提下降低存储和计算成本，尤其适合索引频繁更新的电商场景。